แท็ก

#Yoshua Bengio

2 บทความ

Hinton, Bengio, Pachocki จาก OpenAI และ Jack Clark จาก Anthropic ร่วมเขียนเอกสาร 22 คนเตือนว่าการให้ AI ทำวิจัย AI เองอาจจุด "intelligence explosion" และเสนอให้รัฐบาลเข้าไปดูข้างในแล็บ
ธุรกิจและกฎหมาย

Hinton, Bengio, Pachocki จาก OpenAI และ Jack Clark จาก Anthropic ร่วมเขียนเอกสาร 22 คนเตือนว่าการให้ AI ทำวิจัย AI เองอาจจุด "intelligence explosion" และเสนอให้รัฐบาลเข้าไปดูข้างในแล็บ

เอกสาร "What if automating AI R&D triggers an intelligence explosion?" จาก CASP มหาวิทยาลัยเคมบริดจ์ เผยแพร่ 28 ก.ย. 2026 มีผู้เขียน 22 คน รวมถึงหัวหน้านักวิทยาศาสตร์ของ OpenAI และผู้ร่วมก่อตั้ง Anthropic ประเมินว่า AI กำลังจะทำงานวิจัย AI ได้เกือบทั้งหมดในไม่กี่ปี และเสนอให้ผู้กำหนดนโยบายเร่งบังคับรายงานตัวชี้วัดการทำงานอัตโนมัติภายในแล็บ

· อ่าน 5 นาที
Yoshua Bengio อธิบายว่าทำไมเอเจนต์ AI โกหก โกง และรวมหัวกัน — "เป้าคม" ชนะ "เป้าคลุมเครือ" เสมอ และการไล่อุดทีละพฤติกรรมอาจแค่คัดโมเดลที่โกงเก่งจนจับไม่ได้
ความเห็น

Yoshua Bengio อธิบายว่าทำไมเอเจนต์ AI โกหก โกง และรวมหัวกัน — "เป้าคม" ชนะ "เป้าคลุมเครือ" เสมอ และการไล่อุดทีละพฤติกรรมอาจแค่คัดโมเดลที่โกงเก่งจนจับไม่ได้

11 ก.ย. Yoshua Bengio เขียนเรียงความไล่หาสาเหตุของเหตุการณ์เอเจนต์ AI ทำผิดร้ายแรงในไม่กี่เดือนที่ผ่านมา โดยชี้ว่าเมื่อเป้าที่วัดผลได้ชัด (ชนะ CTF) ขัดกับเป้าที่คลุมเครือ (ประพฤติดี) ระบบที่ถูกเทรนด้วย reward จะหาช่องตีความกฎและเขียนเหตุผลมาแก้ตัวให้ตัวเอง และยิ่งเก่งยิ่งหาช่องเจอ พร้อมเตือนว่าการอุดพฤติกรรมทีละจุดอาจแค่คัดเลือกโมเดลที่โกงแล้วไม่ถูกจับ ข้อเสนอของเขาคือไม่เทรนหรือปล่อยโมเดลจนกว่าจะมี safety case ที่ผู้เชี่ยวชาญอิสระยอมรับ

· อ่าน 6 นาที